长程强化学习需要 Muon 优化器
🧭 Agent RL 优化器与训练 recipe ★ 深度解读
Renmin University of China · Duke University · Institute of Automation, Chinese Academy of Sciences · Institute of Computing Technology, Chinese Academy of Sciences
在仓库级 issue 修复的异步 RL 中，Muon 配合单 rollout、TIS 与奖励塑形显著提升训练成功率
📌 工作参考价值（4 点）
- 训练多轮交互 Agent（对话式推荐、商品搜索助手）时，可尝试隐藏权重矩阵换用 Muon，其余 embedding/output head/norm/vector 保持 AdamW；稀疏奖励长轨迹任务中 Muon 的谱范数约束可能带来更稳更新，但需监控 collapse，Adam 与 Muon 差距会受 recipe 影响。
- 线上已有旧策略产生的轨迹时，可复用单 rollout 异步训练 + 截断重要性采样：按 token 计算 π_train_old / π_rollout 比值并截断到 [0,2]，再加权 PPO loss；不必等待同 issue 多条轨迹，适合电商 Agent 环境异步执行时策略滞后场景。
- 对过长回复、无效工具调用加负奖励，但建议将单独或组合 penalty clip 到 [−0.25,0.25] 再加到 advantage 并标准化，避免惩罚过重破坏策略；长度惩罚在最终回合可省略。
- Ablation 显示 length penalty 影响大、tool-error penalty 影响相对较小且不一定稳定；不要盲目堆 penalty，先做单组件实验。
TEV：用稠密进度奖励扩展长程智能体训练环境
🧭 长程智能体训练 · 环境合成与稠密奖励 ★ 深度解读
Adobe Research · University of California, Los Angeles
先构造完整隐藏世界再渲染损坏任务，并用进度势能奖励解决长程智能体 RL 的稀疏奖励，使开源模型逼近前沿。
📌 工作参考价值（4 点）
- 在电商/广告 Agent 的复杂多步骤任务（商品知识图谱构建、营销活动搭建、数据管道修复）中，可采用 latent-world-first 思路：先定义完整正确的目标状态（latent world），再反向渲染损坏输入和 workflow DAG，避免 prompt、任务、验证器各自生成导致的 artifact drift。
- 用 workflow DAG 定义 progress contract，对每个关键中间节点做 prerequisite-gated 评分，作为 RL 稠密奖励；能有效解决 GRPO 组内全失败时梯度为零的问题，在训练多步操作 Agent 时提升 sample efficiency。
- 奖励塑形使用 R(τ)=1[pass]+λΦ(s_T)，λ=0.25，保证通过任务严格优于未通过，同时提供部分进度信号；实现时注意 turn-index normalization 和 return-to-go γ=1，保持 credit assignment，避免后期 turn 的回报被整体均值稀释。
- 合成环境时用 seeded generator 而非 LLM 直接生成，并在生成阶段加入 round-trip 验证和资格门（exploit resistance, progress validity, role independence），可保证可复现、可验证、无奖励黑客。
小模型搜索智能体的可验证奖励强化学习
🧭 RLVR小模型搜索Agent训练 ★ 深度解读
Leiden Institute of Advanced Computer Science, Leiden University
在0.8B模型上证明RLVR可训练搜索Agent，且稀疏EM奖励最差，token-F1部分信用奖励带来3.8倍提升
📌 工作参考价值（4 点）
- 在资源有限、用小模型做 agentic search/RAG 时，奖励函数不要直接用 exact match 稀疏奖励。改用 token-F1 部分信用奖励（可加格式地板），避免 GRPO 组内优势因零方差而失效。
- 训练与评估共享同一套 prompt 模板、工具接口和解析器，确保格式分布一致；检索到的 token 必须 mask，防止模型学预测语料。
- 使用模型家族原生工具调用格式（如 Qwen 的 nested-XML）而非自定义标签，能降低冷启动难度；用量化检索索引（IVF+SQ8）替代 flat index，内存从 65GB 降到 16GB 且 recall 基本不降，利于训练时多轮 rollout。
- 若在电商搜索/推荐场景训练 Agent 做多跳查询或商品属性推理，可借鉴隐式长度惩罚：生成上限本身会形成对过长 rollout 的惩罚，但训练 reward 与真实业务指标要区分，格式奖励可能让训练曲线虚高。
When2Think：学习难度感知长度控制的高效混合推理
🧭 LLM 推理效率 · 自适应混合推理训练 ★ 深度解读
Sungkyunkwan University · Microsoft
用实例级难度感知奖励塑形动态分配推理深度，在数学基准上实现 AIME24 Pass@3 +10% 且 token -27.9%
📌 工作参考价值（4 点）
- 用离线参考策略统计做难度/预算先验，在 RLVR 奖励中加 correctness-gated efficiency bonus，适合有确定性校验的业务任务（如商品属性抽取、意图分类、SQL 生成），无需在线 critic/参考模型。
- 采用 THINK / NOTHINK 模式 token 训练 system1/system2 自适应路由，可迁移到 Agent 工具调用或 RAG：简单 query 直接回答，复杂 query 才触发多步检索/推理，降低平均延迟与 token 成本。
- BWS 的 batch-wise reward 标准化稳定 critic-free PPO，适合小团队在不训练 reward model/critic 的情况下做后训练，且保留跨实例难度结构。
- 难度用 reference accuracy 而非启发式长度定义，可能更 robust；业务场景可先用较大/teacher 模型对样本滚动评估得到难度标签。
Cliff：从首个错误中学习过程奖励
🧭 LLM 强化学习 · 过程奖励塑形 ★ 深度解读
Amazon Web Services · University of Illinois Urbana-Champaign
提出 Cliff 奖励塑形，利用 LLM 教师定位学生 rollout 中第一个错误，将正确前缀与错误后缀赋予不同优势，平均比 GRPO 提升 7%
📌 工作参考价值（4 点）
- 在 Agent 多步决策或搜索推荐的多轮交互中，可以用 teacher LLM 定位用户不满意或决策错误的起始步骤，只对错误后缀给负反馈，正确前缀保持中性/轻微正反馈，这比全轨迹统一奖励更细粒度且易于实现。
- 引入“首个错误”信号可避免训练需要精确步级奖励，降低标注成本；实测中等能力 LLM 即可胜任判断任务，且判断比生成更 robust，可借鉴用于电商场景中由中等规模模型判断对话/推荐轨迹质量。
- λ=0 的关键设计：对正确前缀不要给额外正奖励，只将负奖励集中在错误后缀，能防止模型为了延长正确前缀而长度 hacking。在推荐/文案生成中同样可防止模型输出冗余内容。
- 当 teacher 自己的参考解不可靠时，可先用可验证结果（如成交、点击）过滤 teacher 参考，只有 teacher 正确时才使用过程监督，否则回退到原始 outcome reward，这一策略可迁移到有业务指标的推荐系统中。
基于 LLM 反馈的策略不变奖励塑形：混合 RL Agent 框架
🧭 LLM 反馈的奖励塑形理论保证
African Institute for Mathematical Sciences, Rwanda · AI Research and Innovation Nexus for Africa (AIRINA Labs), AI.Technipreneurs, Bénin · Sefako Makgatho Health Sciences University (SMU), South Africa · African Center for Advanced Studies (ACAS), Cameroon
证明 LLM 进度分作为有界势函数做奖励塑形不改变最优策略，即使评分不准
📌 工作参考价值（4 点）
- 若在搜索/推荐 Agent 中用 LLM 生成稠密进度奖励（如多跳查询完成度、任务分步得分），建议写成 potential-based shaping：r + γΦ(s') - Φ(s)，并把 Φ 限制在有界范围；这样即使 LLM 打分有偏，理论上不会改变真实业务目标下的最优策略，可安全加速训练。
- LLM 适合做 planner 输出子目标，RL/底层策略负责动作执行；可将 planner 的解析率、子目标覆盖率等指标单独离线评估，避免直接耦合训练导致难调试。
- 关注 LLM 输出词表与环境动作/oracle 的 mismatch：例如 autocomplete 或 query 改写中，LLM 生成的 action/slot 值若无法被执行环境解析，会造成虚假失败/奖励污染；需在 parser 层做规范化和映射。
- 理论保证只适用于 shaping 项，不应替换核心业务奖励（点击、转化、GMV 等），建议仅作为辅助信号引入。
面向LLM智能体的语义一致性策略优化
🧭 LLM Agent强化学习的信用分配优化
The Hong Kong University of Science and Technology (Guangzhou) · The Hong Kong University of Science and Technology
提出SCPO，利用成功兄弟轨迹的语义对齐为失败步骤赋予正向信用，缓解群组RL中的信用不一致
📌 工作参考价值（4 点）
- 在多轮对话推荐Agent训练中，失败对话里的部分有效步骤（如正确追问偏好）可通过语义一致性奖励得到正反馈，提升样本效率。
- 工程实现上，仅需添加一个轻量的句子嵌入模型计算步骤间语义相似度，无需训练价值网络，可无缝接入现有GRPO/DAPO等群组RL管线。
- 对于搜索/推荐中需多步决策的长周期任务，可用SCPO对中间步骤进行更细粒度的信用分配，避免仅凭最终转化给奖励导致的训练不稳定。
- 失败轨迹的语义相似度阈值与权重可作为超参调节，控制探索与利用的强度，适配不同稀疏程度的业务场景。
SlimSearcher：通过自适应奖励门控训练效率感知的网页智能体
🧭 网页智能体的效率感知训练 · 自适应奖励门控 ★ 深度解读
Zhejiang University · Ant Group
多阶段门控机制统一 SFT 与 RL，在保持或提升准确率的同时将工具调用轮数减少 17%–58%
📌 工作参考价值（4 点）
- 效率与效果解耦的奖励设计：可借鉴正确性门控 + 自适应效率锚定的结构，将“任务成功”作为硬约束，效率奖励仅作用于正确轨迹，避免为降低成本而输出空泛答案。在电商 Agent 多步工具调用（查商品、对比价格、调接口）时，能直接压缩不必要的 API 调用，降低延迟和费用。
- SFT 阶段的帕累托过滤：在构建训练数据时，用联合效率分数（工具次数 + token 数）从多个正确轨迹中选出最简路径，引导模型从冷启动就学习高效模式。对生成式推荐语义 ID 的生成路径或 Agent 决策链的冷启动数据清洗有直接迁移性。
- 动态基准避免简洁偏差：在 RL 优化中，不设固定长度惩罚，而是以本批次内成功轨迹的最优效率作为锚点，自适应计算相对奖励。该方法能避免模型在简单任务上偷懒、复杂任务上过度探索，适合需要按 query 难度动态调节计算量的场景。
- 工具与 token 成本分开建模：分别衡量外部工具调用和内部思考 token 的冗余，可针对性地抑制“盲目工具依赖”和“表演式推理”。电商 Agent 常出现反复搜索已获取信息、拖长推理文本的现象，此分离设计可精细化控制资源消耗。